El Giro paralelo representa el cambio fundamental en la filosofía computacional desde una secuencia temporal (hacer una cosa después de otra) hacia una distribución espacial (hacer todo al mismo tiempo a través de una rejilla).

1. La heurística de independencia

Esta es la regla de oro de la computación con GPU: «Cada vez que tu problema sea 'aplicar algo de forma independiente a N elementos', esta es la primera estrategia a probar». Este enfoque de procesamiento paralelo por datos es la fruta fácil del acelerado con GPU, donde la sobrecarga de gestión de hilos queda eclipsada por un rendimiento masivo y simultáneo.

2. Precisión y carga útil

Los kernels de HIP manejan habitualmente grandes matrices de tipos primitivos. En gráficos de alto rendimiento y aprendizaje automático, usamos frecuentemente float (precisión simple), mientras que las simulaciones científicas que requieren estabilidad numérica extrema utilizan double (precisión doble).

3. Del bucle a la ocupación

En el código de la CPU, el procesador «visita» los datos mediante bucles. En la lógica de la GPU, los datos «ocupan» un hilo. Dejas de escribir cómo hacer el bucle y empiezas a escribir qué debe hacer un trabajador individual en una coordenada específica.

$$\text{Índice } i = \text{blockIdx.x} \times \text{blockDim.x} + \text{threadIdx.x}$$